Генерирани от изкуствен интелект голи изображения на Тейлър Суифт станаха вирусни на X, избягвайки модерирането и предизвиквайки възмущение

Несъгласни полово открити deepfakes на Тейлър Суифт станаха вирусни на X в сряда, натрупвайки над 27 милиона гледания и повече от 260 000 лайкове за 19 часа преди акаунтът, който разгласява изображенията, да бъде спрян.

Deepfakes, изобразяващи Суифт гола и в полови сюжети, не престават да се популяризират в X, в това число повторни изявления на вирусни deepfake изображения. Такива изображения могат да бъдат генерирани с AI принадлежности, които създават напълно нови, подправени изображения, или могат да бъдат основани посредством взимане на същинско изображение и „ събличане “ му с AI принадлежности.

Произходът на изображенията не са ясни, само че воден знак върху тях демонстрира, че идват от остарял уеб страница, който е прочут с публикуването на подправени голи изображения на звезди. Уебсайтът има част от уеб страницата си, озаглавена „ AI deepfake “.

Reality Defender, софтуерна компания за разкриване на AI, сканира изображенията и сподели, че има огромна възможност те да са основани с AI технология.

Масовото разпространяване на изображенията за съвсем един ден осветява все по-тревожното разпространяване на генерирано от AI наличие и дезинформация онлайн. Въпреки ескалацията на казуса през последните месеци, софтуерни платформи като X, които са създали свои лични артикули с генеративен AI, към момента не са внедрили или разискали принадлежности за разкриване на наличие с генеративен AI, което опонира на техните инструкции.

Най-гледаните и споделяни дийпфейкове на Суифт изобразяват голата й на футболен стадион. Суифт се сблъсква с месеци на мизогинистични офанзиви за това, че поддържа колегата си, играча на Канзас Сити Чийфс Травис Келс, като посещава мачове от НФЛ. Суифт призна противоположната реакция по време на изявление с Time, като сподели: „ Нямам визия дали ми се демонстрира прекалено много и нервирам няколко татковци, Брадс и Чадс. “

X не отговори незабавно на искане за коментар. Представител на Swift отхвърли да разяснява записа.

X забрани манипулираните медии, които биха могли да причинят щета на избрани хора, само че неведнъж се забави или не съумя да се оправи с казуса с полово експлицитните дълбоки фалшификации на платформата. В началото на януари 17-годишна звезда на Marvel приказва за това, че е намерила полово очевиден дийпфейк на себе си в X и не може да ги отстрани. Към четвъртък NBC News съумя да откри такова наличие на X. А през юни 2023 година обзор на NBC News откри неконсенсусни дълбоки подправени изображения на звезди на TikTok без единодушие, които циркулират в платформата. След като X се свърза за коментар, единствено част от материала беше отстранен.

Според някои от почитателите на Swift, Swift и X не са виновните за свалянето на най-известните изображения на художникът — това беше резултат от акция за всеобщо отчитане.

След като „ Тейлър Суифт AI “ стана наклонност на X, почитателите на Суифт започнаха да заливат хаштага с позитивни изявления за нея, съгласно разбор, осъществен от Blackbird.AI, компания, която работи за отбрана на организациите от наративни онлайн офанзиви, употребяващи AI технология. „ Защита на Тейлър Суифт “ също стартира да се постанова в четвъртък.

Един от хората, които си приписаха заслугата за акцията за докладване, показа две екранни фотоси с NBC News на вести, които е получила от X, показващи, че отчетите й са резултат в два акаунта, които споделят Swift deepfakes, които са спрени за нарушение на правилото за „ корист “ на X.

Жената, която показа екранните фотоси, която обмени директни известия при изискване за анонимност, сподели, че е все по-често обезпокоени от скорошните последствия от технологията AI deepfake върху елементарните дами и девойки.

„ Те не одобряват съществено страданието ни, тъй че в този момент е в нашите ръце да докладваме всеобщо за тези хора и да ги спрем ”, написа в непосредствено известие дамата, която заяви за Swift deepfakes.

В Съединени американски щати десетки девойки на гимназиална възраст оповестяват, че са станали жертва на deepfakes. Няма сегашен федерален закон на Съединени американски щати, който да урежда основаването и разпространяването на дълбоки подправени фалшиви материали без единодушие.

Rep. Джо Морел, D.-N.Y., който показа законопроект през май 2023 година, който ще криминализира неконсенсусните дълбоки подправени имитации без единодушие на федерално равнище, разгласява на X за Swift deepfakes, като написа: „ Още един образец за заличаването, което предизвикват deepfakes “. Законопроектът не е придвижен напред, откогато беше показан, макар че известна тийнейджърка, жертва на deepfake, се сплоти зад него при започване на януари.

Кари Голдбърг, юрист, който е представлявал жертви на deepfake и други форми на полово очевиден материал без единодушие за повече от десетилетие, сподели, че даже софтуерни компании и платформи, които имат правила против deepfakes, не съумяват да предотвратят публикуването им онлайн и бързото им разпространяване посредством техните услуги.

“ Повечето човешки същества нямат милиони почитатели, които да се бият за тях, в случай че са станали жертва “, сподели Голдбърг. „ Дори тези платформи, които имат дълбоки подправени политики, те не са положителни в налагането им или изключително в случай че наличието се е популяризирало доста бързо, това се трансформира в типичния сюжет за удар в къртица. “

Източник: nbcnews.com